某公司因AI造假致股价大跌？AIGC鉴别刻不容缓！
近年来，人工智能各项技术飞速发展，应用更加普及多元。其中，深度合成和生成式AI技术作为人工智能领域的创新应用技术，以其较低的应用门槛、较强的娱乐属性、丰富的应用场景备受关注。
随着相关技术的开放开源、深度合成和生成产品和服务的增多，此类内容制作的技术门槛越来越低，实现了技术的“平民化”。
在深度合成和生成式AI技术向社会生活的各个领域渗透之时，AI安全的负面风险持续加剧且产生实质危害。
案例一
5月24日下午，一篇标题中包含“某科技公司被曝涉嫌大量采集用户隐私数据”的贴文出现于某股票交流平台，贴文中还提及“该公司可能通过其语音识别服务非法获取用户个人信息”等内容。文章导致该公司的股价出现意外下跌，收盘时较开盘价下跌4.26%。对此，该公司解释称网传消息为谣言，该贴文系某生成式AI撰写的虚假小作文。据一份网传截图显示，有用户要求某生成式AI工具写一篇该公司出现重大风险的警示文，输出结果中多处段落与内容一致。
案例二
美国时间22日上午，一张显示五角大楼附近地区发生爆炸的图片在社交网络上疯传，尽管美国国防部发言人证实贴文中的图片是由AI生成的虚假图片，依然没能阻止谣言的进一步散布。该贴文甚至引发了美股的短暂下跌，目前最初的贴文已被删除。
贴文中AI生成的虚假图片
通过以上案例不难看出，深度合成和生成式AI技术一旦被滥用，将会造成巨大的安全风险与实质性危害，可能给社会秩序、国家政治稳定和安全造成巨大威胁。
日前，为规范深度合成服务，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》通过系统性、创新性制度设计，首次回应了对深度合成服务的管理要求，为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。
阻止AI滥用，防止AI作恶，也需发挥技术能力，用“魔法”打败“魔法”。作为国投集团数字/科技板块的重要企业、国内电子数据取证行业龙头和公共安全大数据领先企业、网络空间安全与社会治理领域国家队，美亚柏科2017年成立AI研发中心，深度开展人工智能技术研究。为了应对利用人工智能技术可能带来的安全问题，2019年针对深度合成技术又特别成立专项研究团队（下称“专项团队”）。
专项团队通过对深度合成和生成式AI技术的深入研究以及在人工智能安全方向的经验积累，自主研发深度伪造视频图像检测鉴定的核心引擎，打造出一系列视频图像检测鉴定的一体化智能装备“AI-3300慧眼视频图像鉴真工作站”、AIGC内容检测平台等。
AI-3300"慧眼"视频图像鉴真工作站是一款以人工智能技术为核心的视频图像检验鉴定设备，配备了美亚柏科人工智能团队自主研发的核心AI智能检测引擎，支持当前绝大部分深伪视频图像篡改方法的检测，检测精度处于国内领先水平。
“慧眼”涵盖40余种视频图像真伪鉴定算法，近10种深伪鉴定算法，同时具有智能鉴定和专业鉴定两种鉴定模式，支持卷宗管理和三种鉴定文书生成，为司法鉴定人员提供一站式视频图像检验鉴定服务。
“慧眼”不仅对利用传统伪造手段篡改的影像能生成理想的鉴定效果，而且对利用深度伪造技术进行换脸、美颜、生成人脸、同图或异图复制篡改的影像具有十余种理想的鉴定效果。
"慧眼"视频图像鉴真工作站在深伪检验鉴定中处于国际领先水平，可为公安、司法行业及相关领域的技术人员和影像鉴定人员提供一站式影像真伪检验鉴定解决方案。
AI-3300"慧眼"视频图像鉴真工作站
AIGC内容检测平台，是公司基于在电子数据取证和公共安全大数据多年的行业积累，研究推出的针对人工智能（如ChatGPT）生成文本内容的检测工具，中文生成文本检测的准确率超过90%。
美亚柏科AIGC内容检测平台
未来，美亚柏科将继续聚焦生成式人工智能和AI生成内容的检测识别技术，踔厉奋发，持续发力，按照《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理办法》的管理要求，针对深度合成文本、视频、图像的检测鉴定技术、生成式人工智能技术、人工智能安全取证技术等方面的应用需求，不断打磨推出更为安全、可信、可靠的人工智能技术产品，为维护和保障人工智能的健康发展和规范应用贡献力量！
如您想详细了解更多
AI-3300"慧眼"视频图像鉴真工作站
AIGC内容检测平台
产品信息
欢迎联系
美亚柏科当地销售or拨打技术支持热线
400-888-6688
*部分内容来源互联网
编辑 ：林杨珏
校对：颜如玉
审核：李银河
热文
“走进新国企·改革赋能新发展”媒体采访团走进美亚柏科调研国投集团改革成果
热文
10分钟被骗430万，AI诈骗正在全国多地爆发！美亚柏科AI专家“慧眼”鉴真！热文
热文